Superhuman Safe and Agile Racing through Multi-Agent Reinforcement Learning
多智能体强化学习实现超人类安全高速竞速
🧭 多智能体强化学习与安全交互 ★ 深度解读
University of Zurich · Google DeepMind
通过联盟式自博弈与注意力架构，多智能体强化学习在无人机竞速中超越人类冠军，碰撞率降低50%。
📌 工作参考价值（4 点）
- 联盟式训练（League Play）：维护包含历史自身策略与固定多样性对手池的策略库，按幂律分布采样历史快照，可借鉴用于多智能体对话系统或推荐模型的对抗训练，防止策略坍缩到单一对手模式。
- 置换不变注意力编码：采用Perceiver架构处理任意顺序、任意数量的对手观测，输出固定维度表示，适合处理推荐系统中动态长度的用户行为序列或多物品关系，避免固定长度拼接带来的性能衰减。
- 课程学习与域随机化组合：从简单单智能体任务逐步引入多智能体交互，配合动力学域随机化，实现零样本仿真到现实迁移。可迁移到多智能体强化学习项目，先训练基础能力再注入交互压力，提升训练稳定性与泛化性。
- 价值函数可视化解释：通过改变自身状态输入观察Critic对风险的评估，揭示策略学习到的“碰撞风险区域”，为行为审计提供工具。可借鉴对推荐模型中的注意力权重或价值估计进行风险归因，辅助安全部署。